Thay vì đòi hỏi kỹ năng chỉnh sửa ảnh và video như trước, trên Internet hiện có hàng loạt công cụ AI có thể hoán đổi, ghép mặt người này vào cơ thể người khác một cách tự nhiên và trông như thật. Công nghệ này được gọi là deepfake và các nạn nhân của nó không chỉ có người nổi tiếng mà cả những phụ nữ bình thường.

Một ngày cuối tháng 1, Blaire, nữ streamer nổi tiếng trên Twitch, bất ngờ nhận được tin nhắn của bạn trai về hình ảnh khiêu dâm có mặt cô đang được phát tán khắp Internet. "Như một cú tát mạnh. Dù không phải cơ thể mình, tôi vẫn ghê sợ khi thấy nội dung khiêu dâm có mặt mình", Blaire nói với Vice.

Tệ hơn, các bức ảnh đó đã đến tay gia đình Blaire. Họ không biết deepfake là gì, điều duy nhất họ tin là con gái mình đã làm điều tồi tệ. Một số người khác trong gia đình thậm chí bị cộng đồng mạng tấn công.

Blaire tìm mọi cách gỡ hình ảnh đó khỏi mạng xã hội nhưng bất thành. Tốc độ phát tán tăng lên theo cấp số nhân. Trong buổi livestream hồi đầu năm, cô khóc và nói không hiểu sao mọi thứ trở nên tồi tệ thế. "Tôi là nạn nhân của deepfake khiêu dâm, nhưng giờ tôi phải trả tiền để gỡ ảnh xuống", nữ streamer nói.

Nhiều người thậm chí biến lời kêu cứu của Blaire thành trò đùa, cho rằng cô chỉ đang tìm cách thu hút cộng đồng. Một số nói deepfake không gây hại vì không có thật. Tuy nhiên, theo giáo sư Cailin O'Connor tại Đại học California, tác giả cuốn Thời đại thông tin sai lệch, deepfake có thể gây tác hại không kém những hình ảnh thật. "Dù chúng là giả hay không, ấn tượng được gieo vào đầu người xem vẫn tồn tại. Nạn nhân của deepfake luôn phải đón nhận ánh nhìn tò mò, giễu cợt và thiếu tôn trọng", giáo sư nói.

Quá mệt mỏi, Blaire đã phải ngừng công việc livestream và tìm đến pháp luật để tìm kẻ đã làm giả và phát tán hình ảnh liên quan đến cô.

Tuần trước, câu chuyện của Noelle Martin, 28 tuổi ở Perth, Australia cũng khiến nhiều người lo ngại về góc khuất của công nghệ. Theo Fortune, 10 năm trước, Martin dùng Google tìm kiếm hình ảnh của chính mình và sốc khi thấy khuôn mặt cô bị ghép vào các video khiêu dâm.

Martin đã liên hệ với hàng loạt trang web trong thời gian dài để xóa những nội dung đó nhưng không thành công. Có người còn chỉ trích việc cô đăng hình lên mạng xã hội đã góp phần gây ra deepfake này. Cuối cùng, cô phải tìm đến luật sư. Tuy nhiên, Internet không biên giới và mỗi quốc gia lại có những quy định khác nhau, nên việc gỡ bỏ hình ảnh giả mạo không đơn giản.

Blaire và Martin chỉ là hai trong số rất nhiều nạn nhân của deepfake. Sự phát triển vượt bậc của AI thời gian qua càng khiến việc kiểm soát nội dung deepfake trở nên phức tạp và khó khăn.

Instagram, TikTok, YouTube, Twitter và Facebook có chính sách "ngăn chặn các thông tin gây hiểu lầm". Tuy nhiên, hầu hết không thể kiểm soát do khối lượng nội dung deepfake quá lớn. Trong khi đó, pháp luật chưa có chế tài cụ thể cho các nội dung khiêu dâm giả mạo.

OpenAI cũng cho biết đã xóa nội dung khiêu dâm khỏi dữ liệu được dùng để đào tạo AI vẽ tranh Dall-E nhằm hạn chế khả năng người dùng tạo ảnh độc hại. Midjourney cũng chặn từ khóa liên quan đến tạo hình khiêu dâm, khuyến khích người dùng báo cáo khi thấy nội dung nhạy cảm. Công ty khởi nghiệp Stability AI cũng cập nhật phần mềm vào tháng 11/2022 nhằm loại bỏ khả năng tạo ảnh tục tĩu trên nền tảng Stable Diffusion.

Tuy vậy, bằng nhiều cách, các hình ảnh deepfake vẫn tìm đường xuất hiện trên các nền tảng. "Phát hiện deepfake là trò chơi mèo vờn chuột, là cuộc đua chúng ta đang thua", Wael Abd-Almageed, nhà sáng lập Phòng thí nghiệm phân tích đa phương tiện và trí tuệ thị giác của Đại học Nam California (VIMAL), nhận xét trên Morning Brew năm ngoái.

Khương Nha